Poisson 过程及其推广

2.1 时齐 Poisson 过程

2.1.1 定义与说明

定义 若随机过程 {N(t),t0} 满足以下条件, 则称为 时齐 Poisson 过程.

  1. 是计数过程, 且 N(0)=0.

  2. 是独立增量过程.

  3. 具有增量平稳性, 即

    s,t0,nN:P[N(s+t)N(s)=n]=P[N(t)=n].
  4. 对任意 t>0 和充分小的 Δt>0, 有

{P{N(t+Δt)N(t)=1}=λΔt+o(Δt),P{N(t+Δt)N(t)2}=o(Δt).

其中 λ>0 称为 强度常数.

备注

2.1.2 与 Poisson 分布的关系

定理 2.1.1 {N(t),t0} 为 Poisson 过程, 则

s,t0:P{N(s+t)N(s)=k}=(λt)kk!eλt,kN.

N(t+s)N(s)P(λt).

证明

定理 2.1.1' 随机过程 {N(t),t0} 可用以下条件等价定义为时齐泊松过程,

  1. 是计数过程, 且 N(0)=0.

  2. 是独立增量过程.

  3. s,t0,N(s+t)N(s)P(λt).

证明

 

2.2 Poisson 过程与指数分布

2.2.1 发生时间的概率分布

对于计数过程 {N(t),t0}, 定义随机变量

S0=0,Sn=inf{tN(t)=n},n1,Xn=SnSn1,n1.

于是下列事件等价

{N(t)n}={Snt}{N(t)=n}={Snt<Sn+1}={Snt}{Sn+1t}

若该计数过程是时齐 Poisson 过程, 则 Sn 的分布函数与概率密度函数为

P{Snt}=P{N(t)n}=1k=0n1(λt)kk!eλt,fSn(t)=ddtP{Snt}=λ(λt)n1(n1)!eλtI{t0}.

备注 实际上 SnGa(n,λ) (Gamma 分布).

2.2.2 与指数分布的关系

定理 2.2.1 计数过程 {N(t),t0} 是 Poisson 过程的充要条件是 {Xn,n1} 独立同分布 E(λ).

证明

备注 由定理的证明过程可知, (S1,S2,,Sn) 的 j.p.d.f. 为

g(t1,t2,,tn)=λneλtnI{0<t1<t2<<tn}.

 

2.3 剩余寿命与年龄

2.3.1 剩余寿命与年龄及其分布

定义 对于计数过程 {N(t),t0}, 定义

定理 2.3.1 {N(t),t0} 是参数为 λ 的 Poisson 过程, 则

  1. W(t)E(λ), 即

    P{W(t)x}=(1eλx)I{x0}.
  2. V(t) 是截尾指数分布, 即

    P{V(t)x}={1eλx,0x<t,1,xt.
证明

2.3.2 Poisson 过程等价定义

定理 2.3.2 对于计数过程, 若非负 r.v. Xn (n1) 独立同分布 F(x), 则 x0,t0:

P{W(t)>x}=1F(x+t)+0tP{W(tu)>x}dF(u).
证明

定理 2.3.3 (K.L.Chung) t0, 有 W(t)Xn (n1) 同分布 F(x), 且 F(0)=0, 则 {N(t),t0} 为 Poisson 过程.

证明

备注 该定理可用于检验 Poisson 过程.

 

2.4 到达时间的条件分布

2.4.1 引理与顺序统计量

即给定 N(t)=n 时, S1,S2,,Sn 的条件分布.

定理 2.4.1 {N(t),t0} 是 Poisson 过程, 则

(0<s<t):P{X1sN(t)=1}=st.
证明

引理 (顺序统计量的分布) 设非负随机变量 Y1,Y2,,Yn 独立同分布, 密度函数为 f(y), 则其顺序统计量 Y(1)Y(2)Y(n) 的联合密度函数为

f(y1,y2,,yn)={n!i=1nf(yi),0<y1<y2<<yn,0,.
证明

例子 Yi 独立同均匀分布 R(0,t), 则其顺序统计量 Y(1),,Y(n) 的 j.p.d.f. 为

f(y1,y2,,yn)=n!tnI{0<y1<y2<<ynt}.

2.4.2 到达时间的条件分布

定理 2.4.2 {N(t),t0} 为 Poisson 过程, 则事件相继发生的时间 S1,S2,,Sn 在已知 N(t)=n 下的条件概率密度为

f(t1,t2,,tn)=n!tnI{0<t1<t2<<tnt}.
证明

定理 2.4.3 {N(t),t0} 为计数过程, 时间间隔 {Xn,n1} 独立同分布 F(x), 且 F(0)=0. 若

(0st):P{X1sN(t)=1}=st,

{N(t),t0} 为 Poisson 过程.

证明

定理 2.4.4 {N(t),t0} 为计数过程, 时间间隔 {Xn,n1} 独立同分布 F(x), 且 F(0)=0. 若 E[Xn]<, 且

nN+,0st:P{SnsN(t)=n}=(st)n.

{N(t),t0} 为 Poisson 过程.

备注 这是定理 2.4.3 的弱化版本. 利用以上结果, 检验 Poisson 过程时不需要知道参数 λ.

2.4.3 Poisson 过程的应用

例 1 设到达火车站的顾客流遵照参数为 λ 的 Poisson 流 {N(t),t0}, 火车 t 时刻离开车站, 求在 [0,t] 到达车站的顾客等待时间总和的期望值.

例 2 设一系统在 [0,t] 内承受的冲击数 {N(t),t0} 是参数为 λ 的 Poisson 流. 第 i 次冲击受的损失为 Di, 设 {Di,i1} 独立同分布, 与 {N(t),t0} 独立. 且损失随时间按负指数衰减, 即 t=0 时损失为 D, 在 t 时损失为 Deαt,α>0. 并且损失是可加的, 那么在 t 时刻的损失之和为

ξ(t)=i=1N(t)Dieα(tSi),

其中 Si 为第 i 次冲击到达的时刻. 试求 E[ξ(t)].

解 1

解 2

2.4.4 到达时间的函数期望

定理 2.4.5 {N(t),t0} 是参数为 λ 的 Poisson 过程, Sk,k1 为其到达时刻, 则对任意可积函数 f

E[n=1f(Sn)]=λ0+f(t)dt.
证明

 

2.5 模拟、检验与参数估计

2.5.1 Poisson 过程的轨道模拟

下述步骤可得到 {N(t),t0} 的一条轨道.

  1. 生成随机数 {UnR(0,1),n1}.

  2. Xk=lnUkλ, 则 {Xn,n1} 独立同指数分布 E(λ).

  3. S0=0,Sn=k=1nXk.

  4. N(t)=n=0nI{Snt<Sn+1}.

2.5.2 Poisson 过程的假设检验

欲检验 {N(t),t0} 是否为 Poisson 过程, 可以检验下述问题之一:

  1. 检验 {Xn,n1} 是否独立同指数分布 E(λ).

  2. t>0, 检验 W(t)Xn(n1) 是否同分布.

  3. t>0, 检验在 N(t)=1 时是否有 S1R(0,t).

  4. 给定 T>0, 检验在 N(T)=n 下是否有 (S1,S2,,Sn)R(0,T)n 的次序统计量.


其中最后一种方法最简单, 以此为例:

假设 H0:{N(t),t0} 是 Poisson 过程.

σn=k=1nSk, 则当 H0 成立时, 有

E{σnN(T)=n}=E[i=1ny(i)]=E[i=1nyi]=nT2.D{σnN(T)=n}=D[i=1ny(i)]=D[i=1nyi]=nT212.

于是由中心极限定理, 得

limnP{σnnT/2Tn/12x | N(T)=n}=Φ(x)=12πxet22dt.

2.5.3 Poisson 过程的参数估计

1 极大似然估计

{N(t),t0} 为 Poisson 过程, 给定 T, 若 N(T)=nSi=ti (i=1,2,,n), 则似然函数为

L(t1,t2,,tn;λ)=λneλT.

注意上式与 T 有关, 因为 nT 的函数. 令 dLdλ=0, 即得极大似然估计为

λ^=nT.

2 区间估计

{N(t),t0} 为 Poisson 过程, 对于固定的 n, 注意到 SnGa(n,λ), 于是 2λSnχ2n2.

从而得到 λ 的置信度为 1α 的区间估计为

[χ2n2(α2)2Sn,χ2n2(1α2)2Sn].

 

2.6 非时齐 Poisson 过程

2.6.1 定义与说明

定义 若随机过程 {N(t),t0} 满足以下条件, 则称为 非时齐 Poisson 过程,

  1. 是计数过程, 且 N(0)=0.

  2. 是独立增量过程.

  3. 对任意 t>0 和充分小的 Δt>0, 有

{P{N(t+Δt)N(t)=1}=λ(t)Δt+o(Δt),P{N(t+Δt)N(t)2}=o(Δt).

其中 {λ(t)>0,t0} 称为 强度函数.

备注

2.6.2 任意时段的概率分布

定理 2.6.1 {N(t),t0} 是非时齐具有强度函数 {λ(t)>0,t0} 的 Poisson 过程, 则

s,t0,nN:P{N(s+t)N(s)=n}=[m(s+t)m(s)]nn!em(s)m(s+t).
证明

2.6.3 时齐与非时齐的转换

定理 2.6.2 时齐 Poisson 过程与非时齐 Poisson 过程可如下相互转化:

  1. {N(t),t0} 是具有强度函数 {λ(s)>0,s0} 的非时齐 Poisson 过程. 令 m(t)=0tλ(s)ds, 并定义反函数

m1(u)=inf{t>0m(t)u0},

{M(u)=N(m1(u))},u0 是参数为 λ=1 的时齐 Poisson 过程.

  1. {M(u),u0} 是参数为 λ=1 时齐 Poisson 过程. 若给定强度函数 {λ(t)>0,t0}, 令 m(t)=0tλ(s)ds, 则 {N(t)=M(m(t)),t0} 是具有上述强度函数的非时齐 Poisson 过程.

证明

 

2.7 复合 Poisson 过程

定义 {N(t),t0} 为 Poisson 过程, 随机变量 Yi 独立同分布 Y, 且 {N(t),t0}{Yi,i1} 独立, 则

{X(t)=i=1N(t)Yi,t0}

称为 复合 Poisson 过程 (Compound Poisson Process).

定理 2.7.1 如上定义, 并设 Y 的矩母函数为 ϕY(u), 则 X(t) 的矩母函数、期望与方差分别为

ϕX(u)=eλt(ϕY(u)1),E[X(t)]=λtE[Y],D[X(t)]=λtE[Y2].
证明

定义 若随机变量序列 {ρiN+,i1} 独立同分布, 且与 Poisson 过程 {N(t),t0} 独立, 则

{X(t)=i=1N(t)ρi,t0}

称为 平稳无后效流.

 

2.8 条件 Poisson 过程

定义 设随机变量 Λ 的分布函数为 G(x) (x0), 且在 Λ=λ 时, 计数过程 {N(t),t0} 是参数为 λ 的 Poisson 过程, 即

P{N(s+t)N(s)=nΛ=λ}=(λt)nn!eλt.

则称 {N(t),t0}条件 Poisson 过程.

备注 这里的 {N(t),t0} 不是增量独立的过程, 并且有

P{N(s+t)N(s)=n}=0+(λt)nn!eλtdG(λ).

 

2.9 更新过程

2.9.1 定义与说明

定义 设取值非负的随机变量 {Xk,k1} 独立同分布 F(x) (x0), 且 F(0)<1, 令 Sn=I{n>0}k=1nXk, 则

{N(t)=sup{nSnt},t0}

称为 更新过程, 且 m(t)=E[N(t)] 称为 更新函数.

备注

2.9.2 到达时间概率分布的性质

定理 2.9.1

m,nN+:Fm+n(t)Fm(t)Fn(t).

证明

定理 2.9.2

t0:m(t)=n=1Fn(t).
证明

推论 若对 t0:F(t)<1, 则

m(t)F(t)1F(t).
证明

2.9.3 更新函数与更新方程

定理 2.9.3 t0, m(t) 满足下列 更新方程:

m(t)=F(t)+0tm(tu)dF(u).
证明

定理 2.9.4 F(t)m(t) 是一一对应的, 实际上, 它们的 L-S 变换有如下关系

m^(s)=F^(s)1F^(s).
证明

 

2.10 若干极限定理与基本更新定理

2.10.1 更新过程的极限定理

定理 2.10.1

P{limnSnn=μ:=E[Xn]}=1.

备注 由强大数定律即得. 上式又可记作 limnSnn=μ.

推论 1

P{limnSn=+}=1.
证明

推论 2

t0:m(t)=n=1Fn(t)<+.
证明

定理 2.10.2

P{N()=}=1.
证明

定理 2.10.3 (更新过程强大数定律)

P{limtN(t)t=1μ}=1.
证明

2.10.2 Markov 停时与 Wald 等式

定义 {Xn,n1} 为随机序列, T 为非负整数随机变量, 若对于 nN, 事件 {T=n} 仅依赖于 X1,X2,,Xn, 而与 Xn+1,Xn+2, 独立, 则称 T 关于 {Xn,n1}停时 (Stopping time, 或 Markov time).

定理 2.10.4 (Wald 等式) {Xn,n1} 独立同分布 X, 期望 μ=E(Xn)<, 且 T 关于 {Xn,n1} 是停时, 期望 E(T)<, 则

E(n=1TXn)=E(X)E(T).
证明

例 1 {Xn,n1} 独立同 B(n0,p0), 且 NN+

T=min{n | i=1nXi=N}

关于 {Xn,n1} 是停时, 且

E(T)=E(n=1TXn)E(X)=Tn0p0.

例 2 {Xn,n1} 独立同分布, 其分布列为

X11P1pp

T=min{n | i=1nXi=1} 关于 {Xn,n1} 是停时.

p>0.5 时, 由第三章可知 E(T)<, 从而 E(T)=1pq.

p0.5 时, E(X)0, 从而 Wald 等式不再成立, 于是 E(T)=.


推论 E[Xn]=μ< 时,

E[SN(t)+1]=μ[m(t)+1].
证明

2.10.3 基本更新定理

定理 2.10.5 (基本更新定理)

limtm(t)t=1μ.
证明

 

2.11 更新方程与关键更新定理

2.11.1 更新方程及其定理

定义 设已知函数 a(t) 与分布函数 F(t), 若未知函数 A(t) 满足以下积分方程,

A(t)=a(t)+0tA(tx)dF(x)=a(t)+(AF)(t).

则称之为 更新方程,

定理 2.11.1 a(t) 为有界函数, F(t) 为分布函数, 则更新方程的解存在且唯一, 其解在有限区间上有界. 若记

Fn(t)={F(t),n=1,0tFn1(tx)dF(x),n2.m(t)=n=1Fn(t),

则解 A(t) 可表示为

A(t)=a(t)+0ta(tx)dm(x)=a(t)+(am)(t).
证明

2.11.2 Blackwill 定理

定义 非负随机变量 X 称为是 格点的 (Lattice), 如果

d0:n=0P{X=nd}=1.

并且满足上式的最大的 d 称为 X周期.

备注 X 是格点的, 则其分布函数 F 是格点的.

定理 2.11.2 (Blackwill 定理) F(x) 为非负随机变量的分布函数,

Fn={F,n=1,Fn1F,n2.m(t)=n=1Fn(t).
  1. 如果 F 是非格点的, 则

a0:limt[m(t+a)m(t)]=aμ.
  1. 如果 F 是格点的, 且周期为 d, 则

limn[m((n+1)d)m(nd)]=dμ.

2.11.3 关键更新定理

定义 h 是定义在 [0,+) 上的函数, 令

mn(δ)=inf(n1)δtnδh(t),mn(δ)=sup(n1)δtnδh(t),

δ>0, n=1mn(δ)n=1mn(δ) 有限, 且

limδ0δn=1mn(δ)=limδ0δn=1mn(δ),

则称 h(t)直接 Riemann 可积 的.

备注 单调且绝对可积的函数是直接黎曼可积的.

定理 2.11.3 (关键更新定理) F 是均值为 μ 的非负随机变量的分布函数, F(0)<1, 且 a(t) 是直接 Riemann 可积的, A(t) 是下述更新方程的解.

A(t)=a(t)+0tA(tx)dF(x).
  1. F 是非格点的, 则

limtA(t)={1μ0+a(t)dt,μ<.0,μ=.
  1. F 是周期为 d 的格点的, 则

c>0:limnA(c+nd)={dμn=0a(c+nd),μ<.0,μ=.

推论 1 记剩余寿命 rt=SN(t)+1t, 令 Az(t)=P{rt>z}, 则 A(t) 满足更新方程

Az(t)=1F(t+z)+0tAz(tx)dF(x).

且有如下极限

z>0:limtAz(t)=μ1x+[1F(y)]dy.
证明

2.11.4 交错更新过程

定义 设随机向量序列 {(Zn,Yn),n1} 独立同分布, 即 Zn i.i.d. Z, Yn i.i.d. Y, 且二者不一定独立. 记 Xn=Zn+Yn, S0=0, Sn=i=1nXi, N(t)=sup{nNSnt}, 则 {N(t),t0} 为更新过程. 记

ζt={1,Snt<Sn+Zn+1,0,Sn+Zn+1t<Sn+1.

则称 {ζt,t0}交错更新过程.

定理 2.11.4 H(t),G(t),F(t) 分别为 Zn,Yn,Xn 的分布函数, 且 P(t)=P{ζt=1}, Q(t)=P{ζt=0}. 若 E(Xn)<, 且 F 非格点, 则

limtP(t)=E(Z)E(Z)+E(Y)=E(Z)E(X),limtQ(t)=E(Y)E(Z)+E(Y)=E(Y)E(X).
证明

2.11.5 更新报酬过程

定义 设更新过程 {N(t),t0} 的时间间隔 Xn (n1) 分布为 F, 每当一次更新发生时, 得到一个报酬 Rn0, 且 {Rn,n1} 独立同分布. 并设 {(Xn,Rn),n1} 独立同分布, 其中 Rn 可以依赖于 Xn. 则

{R(t)=n=1N(t)Rn,t0}

称为 更新报酬过程.

备注 当更新过程为 Poisson 过程时, 更新报酬过程为复合 Poisson 过程.

定理 2.11.5 E(R)=E(Rn)<,E(X)=E(Xn)<, 则

  1. limtR(t)t=E(R)E(X).

  2. limtE(R(t))t=E(R)E(X).

证明